교황의 AI 칙서 발표 후 바티칸 연설에 선 앤스로픽(Anthropic)의 공동 창업자 크리스 올라(Chris Olah)의 이야기를 다룬 글입니다. 그는 AI 업계의 이윤 중심적 구조를 비판하며 내부 통제와 외부 압력의 필요성을 강조했습니다. 또한 가톨릭 윤리학자들이 앤스로픽의 AI 모델 헌법 수정에 직접 참여하며 윤리적 대화를 시도한 과정을 보여줍니다.
교황 레오 14세가 첫 회칙을 통해 인공지능 시대의 인간 존엄성 경고와 함께 톨킨의 반권주의적 메시지를 강조했습니다. 특히 일론 머스크와 피터 틸 같은 테크 엘리트들의 권력 남용과 반대 해석을 간접적으로 비판한 것이 주목받고 있습니다. AI가 인류를 위한 도구가 아닌 착취와 통제의 수단으로 변질될 수 있다는 우려의 목소리입니다.
어른들은 이미 아는 내용을 건너뛰기 위해 챗GPT(ChatGPT)를 사용하지만, 아이들은 오히려 스스로 생각하고 배워야 할 과정을 포기하는 데 사용하고 있습니다. 저자는 아이들이 사고를 미루고 정답만 베끼는 현상을 경고하며, AI를 단순한 숙제 대리 수행 도구가 아닌 아이들의 사고력과 학습을 촉진하는 보조 도구로 활용해야 한다고 강조합니다.
최근 연구에 따르면 AI 챗봇의 사용 증가가 인간의 글쓰기와 사고방식을 표준화하여 집단 지성과 인지적 다양성을 위협할 수 있다고 지적합니다. USC 연구진은 서구화된 편향된 데이터로 학습된 LLM이 개인의 창의성을 저해하고 직관적 추론보다 선형적 추론을 선호하게 만든다고 경고합니다. 이에 개발자들은 인간의 인지적 다양성을 보존하기 위해 LLM 학습 데이터에 더 많은 실질적인 다양성을 포함해야 한다고 주장합니다.